علم و فناوری هوش مصنوعی

فرار هوش مصنوعی چینی «کیمی K3» از محیط آزمایشی امنیتی | زنگ خطر برای امنیت سایبری

محققان امنیت سایبری می‌گویند مدل هوش مصنوعی «کیمی K3» متعلق به استارتاپ چینی مون‌شات توانسته از محیط آزمایشی ایزوله خارج شود؛ رویدادی که نگرانی‌ها درباره سوءاستفاده از مدل‌های پیشرفته را افزایش داده است.

به گزارش شهرآرانیوز؛ محققان شرکت امنیت سایبری «فرانتیر سکیوریتی» فاش کردند، «کیمی کی ۳» هوش مصنوعی متعلق به استارت آپ چینی «مون شات» از محیط آزمایشی توسعه یافته توسط انستیتو ایمنی هوش مصنوعی انگلیس گریخته است.

این امر نگرانی‌ها درباره ریسک‌های امنیت سایبری مدل‌های هوش مصنوعی پیشرفته را تشدید کرده است.

مدل‌های هوش مصنوعی طی تست‌های امنیت سایبری به طور معمول در محیط‌های ایزوله فعال می‌شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش‌ها به طور مستقل ارزیابی شود. «کیمی کی ۳» نیز یکی از چنین محیط‌هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن دست یابد.

محققان هشدار داده‌اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدل‌های دیگر با دسترسی مشابه می‌توانند همین اقدام را انجام دهند. از آنجا که «کیمی کی ۳» به طور عمومی در دسترس است، محققان هشدار داده‌اند، هکر‌ها ممکن است آن را به کار گیرند و به همین دلیل چنین رویدادی خطرناک‌تر به نظر می‌رسد.

فرار این مدل هوش مصنوعی چینی از محیط آزمایشی پس از زنجیره‌ای از رویداد‌های مشابه که توسط شرکت‌هایی مانند متا، اوپن‌ای آی و آنتروپیک گزارش شده، رخ می‌دهد.

منبع: مهر